Vợ ông là bà Nguyễn Nguyệt Nga (sinh năm 1962)[14]- Nguyên Vụ trưởng Vụ Hợp tác Kinh tế đa phương, Bộ Ngoại giao, từng công tác tại Đại sứ quán Việt Nam tại Hoa Kỳ. Hiện bà là Phó Chủ tịch Nhóm Tầm nhìn APEC, Phó Chủ tịch Uỷ ban Quốc gia Việt Nam về Hợp tác kinh tế Thái Bình Dương, Chủ tịch danh dự Nhóm Phụ nữ Cộng đồng ASEAN tại Hà Nội.

Ông bà có với nhau 2 người con trai. Con trai cả Phạm Bình Anh sinh năm 1987 hiện đang công tác tại Vụ Các Tổ chức Quốc tế, Bộ Ngoại giao-Vụ mà trước đây ông Phạm Bình Minh đã công tác. Con trai ông kết hôn tháng 4/2016, con dâu ông Trâm Anh cũng làm tại Vụ Các Tổ chức Quốc tế. Con trai thứ Phạm Bình Nam sinh năm 1995 và cũng đã đi làm sau khi học cao học.